婴儿对一般运动（GM）的评估是早期诊断神经发育障碍的有用工具。但是，其在临床实践中的评估依赖于专家的视觉检查，并且热切期待自动解决方案。最近，基于视频的GMS分类引起了人们的注意，但是这种方法将受到无关信息的强烈影响，例如视频中的背景混乱。此外，为了可靠性，有必要在GMS期间正确提取婴儿的时空特征。在这项研究中，我们提出了一种自动GMS分类方法，该方法由预处理网络组成，该网络从GMS视频中删除不必要的背景信息并调整婴儿的身体位置以及基于两流结构的后续运动分类网络。提出的方法可以有效地提取GMS分类的基本时空特征，同时防止过度拟合与不同记录环境无关的信息。我们使用从100名婴儿获得的视频验证了提出的方法。实验结果表明，所提出的方法的表现优于几个基线模型和现有方法。

Classification bandits are multi-armed bandit problems whose task is to classify a given set of arms into either positive or negative class depending on whether the rate of the arms with the expected reward of at least h is not less than w for given thresholds h and w. We study a special classification bandit problem in which arms correspond to points x in d-dimensional real space with expected rewards f(x) which are generated according to a Gaussian process prior. We develop a framework algorithm for the problem using various arm selection policies and propose policies called FCB and FTSV. We show a smaller sample complexity upper bound for FCB than that for the existing algorithm of the level set estimation, in which whether f(x) is at least h or not must be decided for every arm's x. Arm selection policies depending on an estimated rate of arms with rewards of at least h are also proposed and shown to improve empirical sample complexity. According to our experimental results, the rate-estimation versions of FCB and FTSV, together with that of the popular active learning policy that selects the point with the maximum variance, outperform other policies for synthetic functions, and the version of FTSV is also the best performer for our real-world dataset.

Understanding the dynamics of a system is important in many scientific and engineering domains. This problem can be approached by learning state transition rules from observations using machine learning techniques. Such observed time-series data often consist of sequences of many continuous variables with noise and ambiguity, but we often need rules of dynamics that can be modeled with a few essential variables. In this work, we propose a method for extracting a small number of essential hidden variables from high-dimensional time-series data and for learning state transition rules between these hidden variables. The proposed method is based on the Restricted Boltzmann Machine (RBM), which treats observable data in the visible layer and latent features in the hidden layer. However, real-world data, such as video and audio, include both discrete and continuous variables, and these variables have temporal relationships. Therefore, we propose Recurrent Temporal GaussianBernoulli Restricted Boltzmann Machine (RTGB-RBM), which combines Gaussian-Bernoulli Restricted Boltzmann Machine (GB-RBM) to handle continuous visible variables, and Recurrent Temporal Restricted Boltzmann Machine (RT-RBM) to capture time dependence between discrete hidden variables. We also propose a rule-based method that extracts essential information as hidden variables and represents state transition rules in interpretable form. We conduct experiments on Bouncing Ball and Moving MNIST datasets to evaluate our proposed method. Experimental results show that our method can learn the dynamics of those physical systems as state transition rules between hidden variables and can predict unobserved future states from observed state transitions.

自然语言推理（NLI）和语义文本相似性（STS）是广泛使用的基准任务，用于对预训练的语言模型进行组成评估。尽管对语言普遍性的兴趣越来越大，但大多数NLI/STS研究几乎完全集中在英语上。特别是，日语中没有可用的多语言NLI/STS数据集，它在类型上与英语不同，并且可以阐明语言模型当前有争议的行为，例如对单词顺序和案例粒子的敏感性。在此背景下，我们介绍了日本NLI/STS数据集Jsick，该数据集是从英语数据集病中手动翻译的。我们还提出了一个用于组成推断的应力测试数据集，该数据集是通过转换JSick中句子的句法结构来研究语言模型是否对单词顺序和案例粒子敏感的。我们在不同的预训练语言模型上进行基线实验，并比较应用于日语和其他语言时多语言模型的性能。应力测试实验的结果表明，当前的预训练的语言模型对单词顺序和案例标记不敏感。

众所周知，深度神经网络（DNNS）通过特别注意某些特定像素来对输入图像进行分类。对每个像素的注意力的图形表示称为显着图。显着图用于检查分类决策基础的有效性，例如，如果DNN对背景而不是图像的主题更加关注，则它不是分类的有效基础。语义扰动可以显着改变显着性图。在这项工作中，我们提出了第一种注意鲁棒性的验证方法，即显着映射对语义扰动的组合的局部稳健性。具体而言，我们的方法确定了扰动参数的范围（例如，亮度变化），该参数维持实际显着性映射变化与预期的显着映射图之间的差异低于给定的阈值。我们的方法基于激活区域遍历，重点是最外面的鲁棒边界，以在较大的DNN上可伸缩。实验结果表明，无论语义扰动如何，我们的方法都可以显示DNN可以与相同基础进行分类的程度，并报告激活区域遍历的性能和性能因素。

联合学习是一种分布式的机器学习方法，其中单个服务器和多个客户端在不共享客户端数据集的情况下协作构建机器学习模型。联合学习的一个具有挑战性的问题是数据异质性（即，数据分布在客户端可能有所不同）。为了应对这个问题，众多联合学习方法旨在为客户提供个性化的联合学习，并为客户建立优化的模型。尽管现有研究通过经验评估了自己的方法，但这些研究中的实验环境（例如比较方法，数据集和客户设置）彼此不同，目前尚不清楚哪种个性化的联邦学习方法可以实现最佳性能，以及取得多少进展，可以进行多大进展。通过使用这些方法而不是标准（即非个人化）联合学习来制作。在本文中，我们通过全面的实验基准了现有的个性化联合学习的性能，以评估每种方法的特征。我们的实验研究表明，（1）没有冠军方法，（2）大数据异质性通常会导致高准确的预测，并且（3）具有微调的标准联合学习方法（例如FedAvg）通常超过了个性化的联邦学习方法。我们为研究人员开放基准工具FedBench，以通过各种实验环境进行实验研究。

分布式推理（DI）框架已经获得了牵引力作为用于实时应用的技术，用于在资源受限的内容（物联网）设备上的尖端深机学习（ML）。在DI中，计算任务通过IOT设备通过有损的物联网网络从物联网设备卸载到边缘服务器。然而，通常，在通信延迟和可靠性之间存在通信系统级权衡;因此，为了提供准确的DI结果，需要一种可靠和高等待的通信系统来调整，这导致DI的不可忽略的端到端潜伏期。这激励我们通过ML技术的努力来改善通信延迟与准确性之间的权衡。具体而言，我们提出了一种以通信为导向的模型调谐（ComTune），其旨在通过低延迟但不可靠的通信链路实现高度精确的DI。在Comtune中，关键的想法是通过应用辍学技术的应用来微调不可靠通信链路的效果。这使得DI系统能够针对不可靠的通信链路获得鲁棒性。我们的ML实验表明，ComTune使得能够以低延迟和有损网络在低延迟和损失网络下准确预测。

我们使用高斯随机重量平均（赃物）来评估与基于神经网络的功能近似相关的模型不确定性与流体流有关。赃物在给定训练数据和恒定学习率的情况下近似每个重量的后高斯分布。有了访问此分布，它能够创建具有各种采样权重组合的多个模型，可用于获得集合预测。这种合奏的平均值可以视为“平均估计”，而其标准偏差则可以用于构建“置信区间”，这使我们能够在神经网络的训练过程中执行不确定性定量（UQ）。我们在以下情况下利用代表性的基于神经网络的功能近似任务：（i）二维圆形缸唤醒； （ii）Daymet数据集（北美的最高每日温度）； （iii）三维方缸唤醒； （iv）城市流程，以评估当前思想在各种复杂数据集中的普遍性。无论网络体系结构如何，都可以应用基于赃物的UQ，因此，我们证明了该方法对两种类型的神经网络的适用性：（i）通过结合卷积神经网络（CNN）和Multi-i-Encompruction。图层感知器（MLP）; （ii）来自具有二维CNN的截面数据的远场状态估计。我们发现，赃物可以从模型形式不确定性的角度获得物理上介入的置信区间估计。该能力支持其用于科学和工程方面的各种问题。

本文提出了一种完全分散的联邦学习（FL）方案，用于通过多跳网络连接的所有内容（IOE）设备。由于FL算法几乎没有收敛机器学习（ML）模型的参数，因此本文侧重于功能空间中ML模型的收敛性。考虑到ML任务的代表性损失函数例如，均方误差（MSE）和Kullback-Leibler（KL）发散，是凸起的功能，直接更新功能空间中的功能的算法可以收敛到最佳解决方案。本文的关键概念是定制基于共识的优化算法，可以在功能空间中工作，以分布式方式实现全局最佳。本文首先分析了函数空间中所提出的算法的收敛，其被称为元算法，并且示出了频谱图理论可以以类似于数值矢量的方式应用于函数空间。然后，为神经网络（NN）开发了基于共识的多跳联盟蒸馏（CMFD）以实现元算法。 CMFD利用知识蒸馏来实现相邻器件之间的功能聚集而没有参数平均。 CMFD的一个优点是它即使在分布式学习者中使用不同的NN模型也是如此。虽然CMFD不完全反映元算法的行为，但元算法的融合属性的讨论促进了对CMFD的直观理解，并且模拟评估表明，NN模型会聚使用CMFD进行多种任务。仿真结果还表明，CMFD比弱连接网络的参数聚合实现更高的准确性，CMFD比参数聚合方法更稳定。